Terbi được nhà hóa học người Thụy Điển là Carl Gustaf Mosander phát hiện năm 1843, ông đã phát hiện nó như là tạp chất trong ytri(III) oxit, Y2O3, và đặt tên cho nó theo làng Ytterby ở Thụy Điển. Nó đã không được cô lập ở dạng tinh khiết mãi cho tới phát minh ra kỹ thuật trao đổi ion gần đây[10].

Ban đầu Mosander phân chia "ytria" thành ba phân đoạn, "terbia" là phân đoạn có màu hồng (do nguyên tố hiện nay gọi là erbi), và "erbia" là phân đoạn về thực chất là không màu trong dung dịch, nhưng tạo ra oxit màu nâu. Các công nhân khi đó rất khó quan sát phân đoạn sau, nhưng phân đoạn màu hồng thì không thể bỏ sót. Các tranh cãi quay qua quay lại về việc "erbia" có tồn tại hay không. Trong sự lộn xộn đó, các tên gọi ban đầu đã bị đảo lại, và sự tráo đổi các tên gọi bị làm rối lên. Hiện nay, người ta cho rằng những công nhân này đã dùng các sunfat kép của natri và kali để loại bỏ "ceria" ra khỏi "ytria", vô tình làm mất hàm lượng terbi trong của hệ thống trong kết tủa chứa ceria. Trong bất kỳ trường hợp nào, chất hiện nay gọi là terbi chỉ chiếm khoảng 1% của yttria ban đầu, nhưng như thế đã là đủ để truyền màu hơi vàng cho oxit. Vì thế, terbi chỉ là thành phần thiểu số trong phân đoạn terbia ban đầu, với thành phần chủ yếu là các họ hàng gần của nó như gadolini và dysprosi. Sau này, khi các nguyên tố đất hiếm khác được tách ra khỏi hỗn hợp này, bất kỳ phân đoạn nào tạo ra oxit màu nâu đều giữ tên gọi terbia, cho tới khi cuối cùng nó là tinh khiết. Các nhà nghiên cứu trong thế kỷ 19 không có được ích lợi gì từ công nghệ huỳnh quang, mà bằng cách đó việc quan sát huỳnh quang tươi màu có thể làm cho việc theo dõi dấu vết của nguyên tố này trong hỗn hợp trở nên dễ dàng hơn[10].